Small deviations for fractional stable processes

Let {Rt, 0 ≤ t ≤ 1} be a symmetric α-stable Riemann-Liouville process with Hurst parameterH > 0. Consider a translation invariant, β-self-similar, and p-pseudo-additive functional semi-norm ||.||. We show that if H > β+1/p and γ = (H − β− 1/p), then lim ε↓0 ε logP [||R|| ≤ ε] = −K ∈ [−∞, 0), with K finite in the Gaussian case α = 2. If α < 2, we prove that K is finite when R is continuous and H > β + 1/p+ 1/α. We also show that under the above assumptions, lim ε↓0 ε log P [||X || ≤ ε] = −K ∈ (−∞, 0), where X is the linear α-stable fractional motion with Hurst parameter H ∈ (0, 1) (if α = 2, then X is the classical fractional Brownian motion). These general results cover many cases previously studied in the literature, and also prove the existence of new small deviation constants, both in Gaussian and Non-Gaussian frameworks. Résumé Soit {Rt, 0 ≤ t ≤ 1} un processus de Riemann-Liouville α-stable symétrique avec paramètre de Hurst H > 0. Considérons une semi-norme fonctionnelle ||.|| invariante par translation, β-autosimilaire et p-pseudo-additive. Nous montrons que si H > β+1/p et γ = (H − β − 1/p) alors lim ε↓0 ε logP [||R|| ≤ ε] = −K ∈ [−∞, 0), avec K finie dans le cas gaussien α = 2. Lorsque α < 2, nous montrons que K est finie quand R est continu et H > β+1/p+1/α. Nous montrons aussi que sous ces hypothèses lim ε↓0 ε log P [||X || ≤ ε] = −K ∈ (−∞, 0), oùX est le mouvement fractionnaire linéaire α-stable avec paramètre de HurstH ∈ (0, 1) (lorsque α = 2, X est le mouvement brownien fractionnaire usuel). Ces résultats généraux recouvrent de nombreux cas précédemment étudiés dans la littérature et prouvent l’existence de nouvelles constantes de petites déviations, aussi bien dans le cadre gaussien que non gaussien.